Trước đây, Sơn Giang là một xã thuộc huyện Phước Long cũ.

Ngày 29 tháng 8 năm 1994, một phần diện tích và dân số của xã Sơn Giang được tách ra để thành lập thị trấn Thác Mơ, thị trấn huyện lỵ huyện Phước Long.

Ngày 11 tháng 8 năm 2009, Chính phủ ban hành Nghị quyết số 35/NQ-CP[1]. Theo đó:

• Thành lập xã Long Giang trên cơ sở điều chỉnh 980,84 ha diện tích tự nhiên và 3.097 người của xã Sơn Giang; 1.236,73 ha diện tích tự nhiên và 1.406 người của xã Bình Sơn
• Chuyển các xã Sơn Giang và Long Giang về thị xã Phước Long mới thành lập
• Thành lập phường Sơn Giang trên cơ sở toàn bộ 1.650.43 ha diện tích tự nhiên và 4.376 người còn lại của xã Sơn Giang.